Context, Reasoning, and Hierarchy: A Cost-Performance Study of Compound LLM Agent Design in an Adversarial POMDP
对抗POMDP中LLM智能体设计：上下文、推理与层次结构的成本效益研究
🧭 LLM Agent 架构设计：上下文工程与层次分解优于深度推理
Carleton University · Defence R&D Canada · Cistel Technology
在对抗性部分可观察环境中，程序化状态抽象与无推理工具的层次分解性能最佳，推理跨层次分布导致性能级联下降。
📌 工作参考价值（4 点）
- 在构建推荐或电商Agent时，优先实现程序化状态跟踪层（如用户行为序列压缩、环境状态摘要），而非将原始日志直接输入LLM。论文表明状态抽象比原始观察提升76%平均回报且成本效益高。
- 对于多Agent系统，采用层次化分解（主Agent协调多个专业化子Agent），但避免在每个子Agent中嵌入复杂的自我反思工具，否则可能引发“推理级联”，导致性能显著下降和令牌成本激增。
- 成本优化时，上下文工程（特征提取、状态压缩）的性价比通常高于增加推理步骤（如CoT、自我批评），尤其在高吞吐量在线推理场景。
- 将推理工具集中在顶层协调器而非分发给底层执行器，以保持系统稳定性和效率。